W10-1. 실무 맛보기 - 강의 노트

10주차 강의 노트: 실무 맛보기 (헬스체크 · 리소스 · 오토스케일링 · 배포 전략 · 관리형 K8s)

이번 주 목표

  1. Probe(liveness / readiness / startup)로 Kubernetes 가 "고장" 을 알아채는 방법을 안다.
  2. requests / limits 의 차이와 OOMKilled 가 무엇인지 안다.
  3. HPA 가 부하에 따라 Pod 수를 자동으로 조절하는 원리를 안다.
  4. 롤링 / 블루-그린 / 카나리 배포 전략의 차이를 설명할 수 있다.
  5. 관리형 Kubernetes(PaaS) 에서 무엇을 클라우드가 맡고 무엇을 우리가 맡는지 설명할 수 있다.

진행: 이론 15분 (이 노트) → 실습 45분 (실습 가이드)

지금까지 만든 것

브라우저 → Gateway (guestbook.localhost) → Service → 방명록 Deployment (Pod 3개, ConfigMap + Secret) → Service postgres → PostgreSQL (PVC)
오늘은 이 구조에 운영 기능을 붙입니다.


1. Probe: "살아 있나?" "일할 준비 됐나?"

컨테이너 프로세스가 떠 있다고 해서 정상은 아닙니다. 멈춰 있을 수도(교착 상태), DB 에 못 붙어 있을 수도 있습니다. Kubernetes 는 Probe 로 주기적으로 확인합니다.

Probe 질문 실패하면 방명록에서 쓰는 주소
livenessProbe "살아 있나?" 컨테이너를 재시작 /healthz (프로세스만 확인)
readinessProbe "요청 받을 준비 됐나?" Service 에서 빼기 (재시작은 안 함) /readyz (DB 연결까지 확인)
startupProbe "시작이 끝났나?" 끝날 때까지 다른 Probe 를 미룸 (시작이 느린 앱에서 사용)
          readinessProbe:
            httpGet:
              path: /readyz
              port: 8000
            periodSeconds: 5        # 5초마다 확인
            failureThreshold: 2     # 2번 연속 실패하면 "준비 안 됨"
          livenessProbe:
            httpGet:
              path: /healthz
              port: 8000
            periodSeconds: 10
            failureThreshold: 3     # 3번 연속 실패하면 재시작
readinessProbe 가 배포 사고를 막는다 (실습에서 직접 확인)

잘못된 DB 주소로 배포하면 새 Pod 는 /readyz 가 실패해서 0/1(준비 안 됨) 에 머뭅니다.
7주차의 안전장치(새 Pod 가 준비되지 않으면 옛 Pod 를 내리지 않음)가 "준비됨" 을 이 Probe 로 판단하기 때문에, 기존 Pod 가 계속 서비스합니다.
readinessProbe 가 없으면 Kubernetes 는 프로세스가 뜨기만 하면 준비됐다고 보고, 고장 난 Pod 로 트래픽을 보내고 배포도 끝내 버립니다.

liveness 는 신중하게

liveness 를 DB 연결까지 확인하게 만들면, DB 가 잠깐 끊겼을 때 멀쩡한 앱까지 전부 재시작되는 사고가 납니다. liveness 는 "프로세스 자체가 살아 있나" 만, 의존성은 readiness 로 확인합니다.


2. 리소스: requests 와 limits

          resources:
            requests:            # "최소 이만큼은 보장해 주세요" → 스케줄링 기준
              cpu: 50m
              memory: 64Mi
            limits:              # "이 이상은 못 쓰게 막아 주세요" → 상한선
              cpu: 500m
              memory: 256Mi
항목 requests limits
의미 예약 (이만큼은 확보) 상한 (이 이상 금지)
누가 쓰나 scheduler 가 노드를 고를 때 (남은 자리 계산) 노드의 커널(cgroups) 이 실제로 제한 (1주차!)
CPU 초과 시 - 느려짐 (스로틀링)
메모리 초과 시 - 강제 종료: OOMKilled (종료 코드 137)
단위 의미
cpu: 1 = 1000m CPU 코어 1개. 50m = 0.05 코어
memory: 64Mi 64 MiB (Mi, Gi 는 1024 단위)
HPA 의 기준도 requests 입니다

"CPU 사용률 50%" 는 requests(50m) 대비 50%(= 25m)를 뜻합니다. requests 가 없으면 HPA 가 사용률을 계산하지 못합니다.


3. HPA: 부하에 따라 Pod 수 자동 조절

HorizontalPodAutoscaler(HPA) 는 사용량을 보고 Deployment 의 replicas 를 자동으로 바꿉니다.

flowchart TB
    MS["metrics-server
(노드·Pod 사용량 수집)"] --> HPA["HPA
목표: CPU 50%
최소 3 / 최대 8"] HPA -- "replicas 변경" --> D["Deployment: guestbook"] D --> P["Pod 3 → 6 → 8"] P -. "사용량" .-> MS
상황 HPA 의 반응 (실습에서 확인한 실제 값)
부하 발생, CPU 574% / 목표 50% 약 20초 만에 3 → 6, 다음 확인에서 6 → 8(최대)
부하 중지 바로 줄이지 않고 기본 5분 동안 지켜본 뒤 줄임 (들쭉날쭉한 트래픽에 Pod 가 출렁이지 않게)
Pod 를 늘려도 노드가 꽉 차면?

HPA 는 Pod 를 늘립니다. 노드에 자리가 없으면 Pod 는 Pending 이 됩니다. 이때 노드(서버)를 늘리는 것은 클라우드의 Cluster Autoscaler / Karpenter 같은 기능이 합니다. 관리형 K8s 를 쓰는 큰 이유 중 하나입니다.

HPA 를 쓰면 YAML 의 replicas 와 충돌할 수 있습니다

HPA 가 8개로 늘려 놨는데 누군가 replicas: 3 이 적힌 YAML 을 apply 하면 3개로 줄었다가 HPA 가 다시 늘립니다. HPA 를 쓰는 Deployment 는 보통 YAML 에서 replicas 를 빼 둡니다.


4. 배포 전략

flowchart LR
    subgraph R["롤링 업데이트 (7주차)"]
        R1["v1 v1 v1"] --> R2["v1 v1 v2"] --> R3["v1 v2 v2"] --> R4["v2 v2 v2"]
    end
    subgraph BG["블루-그린"]
        B1["트래픽 100% → 블루(v1)
그린(v2)은 대기"] --> B2["한 번에 전환
트래픽 100% → 그린(v2)"] end subgraph C["카나리"] C1["v2 에 10%"] --> C2["문제없으면 50%"] --> C3["100%"] end
전략 방법 장점 단점
롤링 Pod 를 하나씩 교체 (Deployment 기본값) 추가 자원 거의 없음, 자동 잠시 두 버전이 섞임, 문제가 생기면 이미 일부 사용자가 영향
블루-그린 새 버전을 따로 다 띄운 뒤 트래픽을 한 번에 전환 전환·되돌리기가 즉시 자원이 두 배 필요
카나리 새 버전에 트래픽 일부(예: 10%) 만 보내며 지켜보고 늘림 문제가 생겨도 소수만 영향 비율 조절 장치가 필요 (Gateway API, 서비스 메시 등)

Gateway API 로 하는 카나리 / 블루-그린

HTTPRoute 의 weight 로 비율을 정합니다. 8주차에 말한 "Ingress 에는 없던 표준 기능" 이 이것입니다.

  rules:
    - backendRefs:
        - name: guestbook          # 기존 버전
          port: 80
          weight: 90
        - name: guestbook-canary   # 새 버전
          port: 80
          weight: 10
weight (기존 / 새) 실습에서 100번 요청한 결과
90 / 10 기존 91번, 새 버전 9번
50 / 50 기존 51번, 새 버전 49번
0 / 100 새 버전 100번 → 블루-그린 전환과 같은 효과
실무에서는

비율을 사람이 손으로 올리는 대신, 에러율·응답 시간 지표를 보고 자동으로 올리거나 되돌리는 도구(Argo Rollouts, Flagger 등)를 함께 씁니다.


5. 관측(Observability) 맛보기

무엇을 이 스터디에서 실무에서
지표 (Metrics) kubectl top (metrics-server) Prometheus + Grafana (kube-prometheus-stack), 클라우드 모니터링
로그 (Logs) kubectl logs Loki, Elasticsearch/OpenSearch, 클라우드 로그 서비스
이벤트 kubectl get events, describe 알림 연동 (Alertmanager 등)
화면 (UI) Docker Desktop 의 Kubernetes 화면 Headlamp: 2026년 1월 보관 처리된 Kubernetes Dashboard 의 공식 후속
로그가 남지 않는 문제

kubectl logs 는 Pod 가 지워지면 로그도 사라집니다. 실무에서는 노드마다 로그 수집기(DaemonSet)를 띄워 중앙 저장소로 모읍니다.


6. 관리형 Kubernetes (PaaS)

지금까지는 Docker Desktop 이 노트북 안에 클러스터를 만들어 줬습니다. 실제 서비스는 보통 클라우드의 관리형 Kubernetes 를 씁니다.

flowchart TB
    subgraph CSP["☁️ 클라우드가 운영"]
        CP["Control Plane
apiserver · etcd · scheduler · controller
(이중화 · 백업 · 패치 · 업그레이드)"] INT["연동: 로드밸런서(LoadBalancer Service) · 블록 스토리지(StorageClass)
· 노드 자동 확장 · IAM"] end subgraph ME["👤 우리가 운영"] APP["앱: Deployment · Service · HTTPRoute · ConfigMap · Secret · HPA"] NODE["노드 그룹 설정 (크기·개수) — 제품에 따라 이것도 클라우드가 맡음"] SEC["보안 · 비용 · 버전 업그레이드 일정 결정"] end ME -- "kubectl / CI·CD" --> CP
구분 직접 구축 (kubeadm 등) 관리형 K8s
Control Plane 직접 설치·이중화·백업·업그레이드 클라우드가 운영
LoadBalancer Service 직접 구성 (MetalLB 등) 클라우드 LB 가 자동 생성
PVC (StorageClass) 직접 스토리지 연동 클라우드 블록 스토리지 자동 생성
노드 확장 직접 Cluster Autoscaler / 노드 자동 관리 기능 제공
쓰는 YAML 같음 같음 ← 이 스터디에서 배운 것이 그대로 통함

대표적인 관리형 Kubernetes

클라우드 서비스
AWS Amazon EKS (노드까지 맡기는 EKS Auto Mode 도 있음)
Microsoft Azure AKS (자동 구성 모드 AKS Automatic)
Google Cloud GKE (노드를 숨기고 Pod 단위로 과금하는 Autopilot)
NHN Cloud NKS (NHN Kubernetes Service)
네이버클라우드 Ncloud Kubernetes Service
그 밖의 국내 CSP 대부분 관리형 Kubernetes 를 제공합니다 (상품명과 기능은 각 사 문서에서 확인)
SA 설계 체크리스트 (맛보기)

항목 고민할 것
클러스터 관리형 vs 직접 구축, 버전 지원 기간과 업그레이드 주기
노드 크기·개수, 자동 확장, 노드까지 맡기는 모드를 쓸지
외부 노출 클라우드 LB + Gateway API 구현체 선택 (Ingress-NGINX 는 지원 종료)
데이터 DB 를 클러스터 안에 둘지 DBaaS 로 뺄지 (9주차), 스토리지 종류와 백업
설정·비밀 ConfigMap / Secret, 외부 비밀 저장소 연동
안정성 Probe, requests/limits, HPA, 여러 가용 영역(AZ)에 분산
배포 CI/CD, GitOps(Argo CD 등), 롤링 / 카나리
관측 지표·로그·알림 수집 구조
비용 Control Plane 요금 여부(클라우드마다 다름), 노드·LB·스토리지 요금


7. 다음 걸음: CI/CD 와 GitOps

flowchart LR
    DEV["코드 수정
git push"] --> CI["CI
(GitHub Actions 등)
빌드 · 테스트 · 이미지 push"] CI --> REG["레지스트리
내아이디/guestbook:v3"] CI --> GIT["설정 저장소(Git)
deployment.yaml 의 이미지 태그 변경"] GIT --> CD["GitOps 도구
(Argo CD 등)"] CD -- "Git 내용대로 apply" --> K8S["Kubernetes"]

핵심 요약

10주차 핵심
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
① Probe        liveness 실패 → 재시작 / readiness 실패 → Service 에서 제외 (배포 사고 방지)
② 리소스       requests = 예약(스케줄링, HPA 기준) / limits = 상한 (메모리 초과 → OOMKilled 137)
③ HPA          metrics-server 지표로 replicas 자동 조절 (늘릴 땐 빠르게, 줄일 땐 기본 5분 지켜봄)
④ 배포 전략     롤링(기본) / 블루-그린(한 번에 전환) / 카나리(일부만) ← HTTPRoute weight
⑤ 관측         metrics · logs · events, Prometheus + Grafana, Headlamp
⑥ 관리형 K8s    Control Plane · LB · 스토리지는 클라우드가, 앱 YAML 은 그대로
⑦ 다음 걸음     CI/CD + GitOps: "Git 이 진실"

참고 자료

더 깊이 보고 싶다면 (볼트 내 정리 노트):

공식 문서:


네비게이션

이전 목록 다음
◀ 9주차 실습 목록으로 10주차 실습 ▶